Sau khi nghỉ hưu năm 1979, ông sống cùng gia đình tại thành phố Hà Nội. Trong những năm cuối đời, ông viết nhiều bài báo và tham luận góp ý kiến với lãnh đạo nhà nước về các vấn đề chính trị, về dân chủ. Ông còn được suy cử làm Trưởng ban danh dự Ban liên lạc họ Tô Việt Nam đầu tiên.

Ông mất ngày 20 tháng 10 năm 2003, tại Hà Nội, hưởng thọ 92 tuổi.